Towards Efficient Reasoning in LLM-Based Recommender Systems via Model Merging
基于模型合并的推荐系统慢思考推理高效压缩
🧭 LLM推荐系统推理压缩 · 模型合并 ★ 深度解读
The University of Queensland · Griffith University
首次将模型合并用于慢思考推荐系统的推理压缩，在注意力头粒度选择性注入简洁行为，缩短推理长度最高24.3%且保持准确率
📌 工作参考价值（4 点）
- 可以通过模型合并，在无需重新训练的情况下压缩慢思考推荐模型的冗长推理链，降低线上推理延迟和成本。
- 合并时以注意力头为单位，依据检索关键性、决策忠实度和参数更新敏感度分配合并系数，保护关键推理头，避免精度损失。
- 对于电商/广告推荐中需要复杂用户偏好推理的场景，可以先训练慢思考模型获得高准确率，再通过REAM压缩推理长度，平衡效果与效率。
- 工程实现仅需少量校准数据（如500条）计算头级信号，无需额外梯度更新，可快速部署。